Thuở nhỏ, Cao Bá Quát sống trong cảnh nghèo khó, nhưng nổi tiếng là trẻ thông minh, chăm chỉ và văn hay chữ tốt. Năm Tân Tỵ (1821), ông thi khảo hạch ở trường thi tỉnh Bắc Ninh lúc đó mới 13 tuổi, nhưng thi Hương (lần đầu) không đỗ.

Năm Tân Mão (1831) đời vua Minh Mạng, ông thi Hương đỗ Á Nguyên tại trường thi Hà Nội, nhưng đến khi duyệt quyển, bị Bộ Lễ kiếm cớ xếp xuống cuối bảng [8] xếp ông xuống hạng cuối cùng trong số 20 người đỗ cử nhân.

Năm Nhâm Thìn (1832), Cao Bá Quát vào kinh đô Huế dự thi Hội nhưng không đỗ. Sau đó, ông vào kinh dự thi mấy lần nữa, nhưng lần nào cũng hỏng.

Năm 1841 đời vua Thiệu Trị, được quan tỉnh Bắc Ninh tiến cử, Cao Bá Quát được triệu vào kinh đô Huế bổ làm Hành tẩu ở bộ Lễ. Tháng 8 (âm lịch) năm đó, ông được cử làm sơ khảo trường thi Thừa Thiên[9]. Thấy một số bài thi hay nhưng có chỗ phạm trường quy, ông bàn với bạn đồng sự là Phan Nhạ lấy son hòa với muội đèn chữa lại. Việc bị phát giác, ông bị bắt giam vào ngục Trấn Phủ (ngày 7 tháng 9 âm lịch), rồi chuyển đến ngục Thừa Thiên (21 tháng 1 âm lịch năm Nhâm Dần, 1842). Suốt thời gian dài bị giam cầm, ông thường bị nhục hình tra tấn. Nhưng khi án đưa lên, vua Thiệu Trị đã giảm cho ông từ tội "trảm quyết" xuống tội "giảo giam hậu", tức được giam lại đợi lệnh. Sách Đại Nam thực lục(Tập 23) chép việc:

Năm Tân Sửu (1841), tháng 8...Cao Bá Quát và Phan Nhạ làm Sơ khảo trường thi Thừa Thiên, chữa văn sĩ nhân (chữa 09 chữ trong một số quyển thi phạm húy). Bộ Lễ và Viện Đô sát tra xét, nghị tội: Quát và Nhạ phải tội xử tử. Nguyễn Văn Siêu (làm Phân khảo) phải tội trượng, đồ. Chủ khảo và Giám khảo bị cách chức, giáng chức. Vua xét lại, tha cho Quát, Nhạ tội xử tử và chuyển thành giảo giam hậu. Siêu chỉ bị cách chức, tha cho tội đồ; Chủ khảo Bùi Quỹ và Phó khảo Trương Sĩ Tiến bị cách lưu làm việc. 5 cử nhân có bài được sửa đều phải thi lại cả ba kỳ và đều được lấy đỗ trở lại [10].

Sau gần ba năm bị giam cầm khổ sở, khoảng cuối năm Quý Mão (1843), Cao Bá Quát được triều đình tạm tha, nhưng bị phát phối đi Đà Nẵng, chờ ngày đi "dương trình hiệu lực" (tức đi phục dịch để lấy công chuộc tội).

Tháng 12 (âm lịch), ông theo Đào Trí Phú (trưởng đoàn) xuống tàu Phấn Bằng đi hiệu lực đến vùng Giang Lưu Ba (Indonesia). Cùng lúc ấy, Phan Nhạ theo Nguyễn Công Nghĩa (trưởng đoàn) xuống thuyền Thần Dao đi hiệu lực sang Tân Gia Ba (Singapore)[11]

Tháng 7 năm Giáp Thìn (1844), đoàn công cán trên thuyền Phấn Bằng về đến Việt Nam. Sau đó, Cao Bá Quát được phục chức ở bộ Lễ, nhưng chẳng bao lâu thì bị thải về sống với vợ con ở Thăng Long.

Ông trở về sống với vợ con ở Hà Nội. Trước đây, nhà ông vốn ở phố Đình Ngang (nay gần phố Nguyễn Thái Học), năm 1834 khi ông vào Huế thi Hội, thì vợ ông ở nhà đã xin phép cha chồng cho sửa lại một ngôi nhà gần Cửa Bắc về phía Hồ Tây và Hồ Trúc Bạch. Thời gian này, những lúc thư nhàn, ông thường xướng họa với các danh sĩ đất Thăng Long như Nguyễn Văn Siêu, Nguyễn Văn Lý, Trần Văn Vi, Diệp Xuân Huyên...

Sau ba năm bị thải về, Cao Bá Quát nhận được lệnh triệu vào Huế (1847) làm ở Viện Hàn Lâm, lo việc sưu tầm và sắp xếp văn thơ. Thời gian ở Kinh đô Huế lần này, ông kết thân với một số thi nhân nổi tiếng như Nguyễn Hàm Ninh, Đinh Nhật Thận, Nguyễn Phúc Miên Thẩm, Nguyễn Phúc Miên Trinh...và ông đã được mời tham gia Mạc Vân Thi xã do hai vị hoàng thân này sáng lập.

Năm Canh Tuất (1850)[12], do không được lòng một số quan lớn tại triều, Cao Bá Quát đã bị đầy đi làm giáo thụ ở phủ Quốc Oai (Sơn Tây cũ).